โมเดลใหม่
DiffusionGemma: Google เปิดโมเดลภาษาแบบ "diffusion" โอเพนเวตตัวแรก — สร้างข้อความทีละบล็อก เร็วกว่าเดิม 4 เท่า รันบน RTX 4090 ได้
Google DeepMind ปล่อย DiffusionGemma โมเดลภาษาแบบ text-diffusion โอเพนเวตตัวแรกที่ขึ้น mainstream — MoE 26B (active 3.8B) สร้างข้อความทีละบล็อก 256 โทเคนพร้อมกันแทนการไล่ทีละโทเคน เร็วกว่าโมเดล autoregressive ได้ถึง 4 เท่า ภายใต้ Apache 2.0 และรันบน RTX 4090/5090 24GB ได้เมื่อ quantize
· อ่าน 6 นาที